Rui Costa, cùng với một huyền thoại khác là Luis Figo, được coi là những người làm nên một "Thế hệ vàng" của bóng đá Bồ Đào Nha. Từ sau khi tuyển U20 Bồ Đào Nha vô địch U20 World Cup các năm 1989, 1991; anh và Figo cùng được gọi vào tuyển quốc gia. Với những thành công ở đội hình trẻ, họ được kỳ vọng rất nhiều. Tuy nhiên, họ đã không giành được một danh hiệu lớn nào ở đẳng cấp thế giới. Thành tích cao nhất của họ là đưa đội tuyển đến được bán kết Euro 2000, tứ kết World Cup 2002 và chung kết Euro 2004 - trận đấu với Hy Lạp tại chung kết Euro 2004 là trận đấu kết thúc của "Thế hệ Vàng", vì sau đó Rui Costa đã chấm dứt sự nghiệp thi đấu quốc tế.